Vào ngày 6 tháng 6 năm 1944 quân Đồng Minh phương Tây đổ bộ vào miền Bắc nước Pháp trong Chiến dịch Overlord.[158] Nhằm ứng phó, Cụm tập đoàn quân Thượng sông Rhine (Heeresgruppe Oberrhein) được thành lập để đối đầu với Tập đoàn quân số 7 của Mỹ (dưới sự chỉ huy của Tướng Alexander Patch[159]) và Tập đoàn quân số 1 của Pháp (do Tướng Jean de Lattre de Tassigny dẫn đầu) tại vùng Grand Est dọc bờ Tây sông Rhine.[160] Cuối năm 1944, Hitler bổ nhiệm Himmler làm tổng tư lệnh Cụm tập đoàn quân Thượng sông Rhine.

Vào ngày 26 tháng 9 năm 1944 Hitler ra lệnh cho Himmler tạo ra những đơn vị quân đội đặc biệt, Volkssturm ("Bão tố Nhân dân" hay "Quân đội Nhân dân"). Tất cả nam giới tuổi từ 16 đến 60 đủ tư cách đều phải buộc gia nhập vào lực lượng dân quân này theo như sự xác nhận của Bộ trưởng Vũ trang Albert Speer, người đã ghi nhận việc những lao động lành nghề không thể thay thế bị buộc phải rời bỏ công việc sản xuất vũ khí.[161] Hitler đầy tự tin cho rằng số lượng nam giới có thể tăng lên đến sáu triệu, và những đội quân mới sẽ "khởi xướng một cuộc chiến tranh nhân dân chống lại kẻ thù xâm lược".[162] Những hy vọng này là hết sức lạc quan.[162] Trong tháng 10 năm 1944, những đứa trẻ tầm 14 tuổi cũng được liệt kê vào danh sách. Do thiếu hụt nghiêm trọng vũ khí và trang bị cũng như thiếu sự đào tạo, các thành viên của Volkssturm có sự chuẩn bị nghèo nàn cho trận chiến, và khoảng 175.000 người trong số họ đã chết trong những tháng cuối cùng của chiến tranh.[163]

Vào ngày 1 tháng 1 năm 1945 Hitler và các tướng lĩnh của ông phát động Chiến dịch Gió phương Bắc (Unternehmen Nordwind). Mục tiêu của chiến dịch là phá vỡ sự liên kết giữa Tập đoàn quân số 7 của Mỹ và Tập đoàn quân số 1 của Pháp để hỗ trợ cuộc tấn công phía Nam trong trận Ardennes, cuộc tấn công lớn cuối cùng của Đức trong chiến tranh thế giới thứ hai. Sau khi để quân Đức đạt được một số kết quả hạn chế ban đầu, phía Mỹ đã chặn đứng cuộc tấn công.[164] Đến ngày 25 tháng 1, Chiến dịch Gió phương Bắc chính thức khép lại.

Vào ngày 25 tháng 1 năm 1945, bất chấp việc Himmler thiếu kinh nghiệm về quân sự, Hitler vẫn bổ nhiệm ông làm tư lệnh của Cụm tập đoàn quân sông Wisla (Heeresgruppe Weichsel) để ngăn chặn Chiến dịch Wisla-Oder của Hồng quân Liên Xô.[165] Tướng thiết giáp Heinz Guderian đã phát hoảng với quyết định này. Hiểu được rằng Himmler cần tất cả mọi sự trợ giúp có thể, Guderian chỉ định Tướng Walther Wenck, một sĩ quan tham mưu nhiều kinh nghiệm, làm tham mưu trưởng cho Himmler.[162] Himmler thành lập trung tâm chỉ huy tại Schneidemühl và sử dụng đoàn tàu đặc biệt của mình, Sonderzug Steiermark, làm sở chỉ huy. Con tàu chỉ có một đường điện thoại, các bản đồ không phù hợp, và không có những binh chủng thông tin hay radio để tạo sự liên lạc và phát đi các mệnh lệnh. Himmler hiếm khi rời khỏi đoàn tàu, chỉ làm việc khoảng bốn tiếng một ngày và cứ nhất định đòi được xoa bóp trước khi bắt đầu làm việc; và sau bữa trưa là một giấc ngủ dài.[166] Chiến dịch Solstice, một cuộc tấn công từ Pomerania chống lại cánh quân Bắc của Phương diện quân Belarusian số 1 của Nguyên soái Georgy Zhukov, được phát động vào ngày 16 tháng 2 năm 1945, nhưng lại có thể làm nên được chút tiến triển trước Tập đoàn quân số 61 của Thượng tướng Pavel Alexeyevich Belov và Tập đoàn quân xe tăng cận vệ số 2 của Nguyên soái Semyon Bogdanov.[162] Zhukov phản ứng bằng cách chuyển hai tập đoàn quân xe tăng sang đối đầu với quân Đức. Trong vòng năm ngày, những chiếc xe tăng của Hồng quân đã tiến tới vùng Baltic, bao vây quân Đức, lực lượng giờ đang tìm cách trốn thoát bằng đường biển.[162] Himmler đã không thể bày ra bất kỳ kế hoạch khả thi nào để hoàn thành những mục tiêu quân sự của mình. Dưới áp lực từ Hitler bởi tình hình quân sự tồi tệ, Himmler trở nên lo lắng và không thể đưa ra những báo cáo nhất quán.[167] Hitler không muốn thừa nhận rằng sự lựa chọn của ông ta cho chức chỉ huy là không thỏa đáng. Sau một cuộc tranh cãi nảy lửa với Tướng Heinz Guderian, người mà nhất quyết đòi thay đổi vị trí tư lệnh Cụm tập đoàn quân sông Wisla,[168] Hitler cử Wenck đến chỗ sở chỉ huy của Himmler để tiếp quản nhiệm vụ chỉ huy một cuộc phản công hạn chế; Hitler sau đó quan sát thấy việc di chuyển các đơn vị quân cần thiết cho kế hoạch của Guderian tấn công gọng kìm đôi từ các vùng lân cận là không thể.[169] Khi cuộc phản công thất bại, Hitler quy trách nhiệm cho Himmler và kết tội ông không nghe theo mệnh lệnh. Quãng thời gian làm một chỉ huy quân sự của Himmler chấm dứt vào ngày 20 tháng 3, thời điểm mà Hitler chỉ định Tướng Gotthard Heinrici làm tổng tư lệnh Cụm tập đoàn quân sông Wisla. Sau đó Himmler lẩn trốn đến một viện điều dưỡng ở Hohenlychen, khi kể từ ngày 18 tháng 2 ông luôn cần đến sự chăm sóc của bác sĩ riêng.[168] Hitler lệnh cho Guderian thực hiện một đợt nghỉ phép y tế bắt buộc, và ông đã xin thôi chức Tham mưu trưởng cho Hans Krebs vào ngày 29 tháng 3.[170] Thất bại của Himmler và phản ứng của Hitler đánh dấu sự đi xuống nghiêm trọng trong quan hệ giữa hai người.[171] Đến thời điểm đó, số lượng những người thân cận mà Hitler tin tưởng đã giảm xuống một cách nhanh chóng.[172]

Đàm phán hòa bình

Vào mùa xuân năm 1945, những nỗ lực chiến tranh của Đức Quốc xã đứng bên bờ sụp đổ và mối quan hệ giữa Himmler với Hitler trở nên xấu đi hơn bao giờ hết. Himmler cất nhắc tự mình dàn xếp một thỏa thuận hòa bình. Người làm công việc xoa bóp cho ông, Felix Kersten, đã đi đến Thụy Điển để đóng vai trò làm trung gian trong các cuộc đàm phán với Bá tước Folke Bernadotte, người đứng đầu Hội Chữ thập Đỏ Thụy Điển. Giữa hai người đã có những bức thư được trao đổi[173] cùng các cuộc gặp mặt trực tiếp được Walter Schellenberg của Cơ quan An ninh Trung ương (RSHA) dàn xếp.[174]

Himmler và Hitler gặp nhau lần cuối tại Berlin vào ngày sinh nhật của Hitler, ngày 20 tháng 4 năm 1945, khi đó Himmler đã thề hoàn toàn trung thành với Hitler. Cũng trong ngày hôm đó, trong lúc đang chỉ đạo về quân sự, Hitler tuyên bố rằng ông sẽ không rời Berlin, bất chấp Hồng quân Liên Xô đang tiến đến. Himmler và Göring nhanh chóng rời thủ đô sau đó.[175] Vào ngày 21 tháng 4, Himmler có cuộc gặp với Norbert Masur, một đại biểu của Hội đồng Do Thái Thế giới, để bàn luận về việc giải phóng những tù nhân trong các trại tập trung Do Thái.[176] Kết quả của các cuộc đàm phán là 20.000 tù nhân đã được thả tự do trong chiến dịch Xe buýt Trắng.[177] Trong quá trình đàm phán, Himmler đã khẳng định dối trá rằng lò thiêu được xây dựng là để xử lý xác các nạn nhân của dịch sốt phát ban. Ông đồng thời xác nhận tỉ lệ sống sót tại các trại tập trung Auschwitz và Bergen-Belsen là rất cao, thậm chí cả khi các khu trại đó đã được giải phóng chứng minh rõ ràng rằng số liệu mà Himmler đưa ra là sai lệch.[178]

Hai ngày sau, Himmler có cuộc gặp gỡ trực tiếp với Bernadotte tại tòa lãnh sự Thụy Điển ở Lübeck. Ông tự nhận mình là lãnh đạo lâm thời của nước Đức, và tuyên bố rằng Hitler sẽ chết trong vòng vài ngày tới. Kỳ vọng vào việc quân Anh và Mỹ sẽ chung cánh với lực lượng Wehrmacht còn lại để đối đầu với Liên Xô, Himmler yêu cầu Bernadotte đi báo tin cho Tướng Dwight Eisenhower rằng nước Đức mong muốn đầu hàng trước phương Tây. Bernadotte đòi Himmler trình bày đề nghị bằng văn bản, Himmler buộc phải làm theo.[179]

Tuy nhiên, vài giờ trước đó, Göring đã gửi một bức điện trong đó yêu cầu được phép tiếp quản vị trí lãnh đạo đất nước—một hành động mà Hitler, dưới sự kích động của Martin Bormann, hiểu đó như là một yêu sách đòi hạ bệ hay một cuộc đảo chính. Vào ngày 27 tháng 4 đại diện của Himmler tại tổng hành dinh của Hitler ở Berlin là Hermann Fegelein bị bắt trong bộ dạng thường phục với ý đồ chuẩn bị bỏ trốn và bị giải đến Führerbunker (boongke của Hitler). Tối ngày 28 tháng 4, đài BBC phát một bản tin thuật lại từ Reuters nói về những nỗ lực đàm phán của Himmler với quân Đồng Minh phương Tây. Hitler, người có niềm tin sâu sắc rằng Himmler là kẻ trung thành thứ hai chỉ sau Joseph Goebbels-người mà đã gọi Himmler là "der treue Heinrich" (Heinrich trung thành)-rơi vào một cơn điên loạn bởi sự phản bội rõ ràng ngay trước mặt. Hitler nói với những người đang ở trong tổ hợp boongke rằng hành động của Himmler là một sự phản bội kinh khủng nhất mà ông từng biết đến và ra lệnh bắt giữ. Còn Fegelein thì bị đưa ra tòa án quân sự và bị bắn chết.[180]

Vào thời điểm đó, Hồng quân Liên Xô đã tiến đến Potsdamerplatz, chỉ cách Phủ Thủ tướng Đế chế có 300 m, và đang chuẩn bị một cuộc tấn công vũ bão. Thông tin này, cộng với sự phản bội của Himmler, đã thúc giục Hitler viết ra bản di chúc cuối cùng. Bản di chúc hoàn thành vào ngày 29 tháng 4, một ngày trước khi ông tự sát, trong đó ông tuyên bố rằng cả Himmler và Göring đều là những kẻ phản bội. Hitler đã tước bỏ tất các mọi chức vụ trong đảng và trong các cơ quan nhà nước đồng thời trục xuất Himmler ra khỏi đảng.[181][182]

Hitler chỉ định Thủy sư đô đốc Karl Dönitz làm người kế vị ông. Himmler đã gặp Dönitz ở Flensburg và đề nghị được làm nhân vật lãnh đạo số hai. Himmler cho rằng mình được phép có một vị trí trong chính phủ lâm thời của Dönitz với chức vụ Reichsführer-SS, ông tin rằng SS sẽ có một địa vị tốt để phục hồi và duy trì trật tự sau chiến tranh. Dönitz lặp đi lặp lại tuyên bố bác bỏ lời đề nghị của Himmler[183] và khởi xướng những cuộc đàm phán hòa bình với Đồng Minh. Vào ngày 6 tháng 5, hai ngày trước khi Văn kiện đầu hàng của Đức được đưa ra, Dönitz viết một bức thư trong đó chính thức loại bỏ Himmler ra khỏi tất cả chức vụ mà ông đang nắm giữ.[184]